180

Weizenbaum J. ELIZA – A Computer Program for the Study of Natural Language Communication Between Man and Machine // Communications of the ACM. 1966. № 1 (9). С. 36–45. Система получила название в честь цветочницы Элизы Дулитл из пьесы Джорджа Бернарда Шоу. Изначально она говорила с сильным лондонским акцентом, но постепенно «училась говорить все лучше и лучше» и в результате смогла быстро войти в высшее столичное общество.

181

См. полный рассказ об Элизе и последствиях ее применения в: Weizenbaum J. Computer Power and Human Reason. San Francisco: W. H. Freeman, 1976.

182

Там же. С. 6.

183

Цит. по: Weber B. Mean Chess-Playing Computer Tears at Meaning of Thought // New York Times. 1996. 19 февраля.

184

Hofstadter D. Just Who Will Be We, in 2493? / Indiana University, Bloomington. 2003. Долгая история разочарования, испытанного Хофштадтером, блестяще описана в: Somers J. The Man Who Would Teach Machines to Think // Atlantic. 2013. Ноябрь.

185

«Единственным исключением являются вещи вроде Deep Blue, которые обладают огромной вычислительной мощностью, но не имеют вообще никакого отношения к искусственному интеллекту. Они не пытаются подражать людям на уровне обработки информации. <…> В определенным смысле Deep Blue – это отказ от искусственного интеллекта, потому что эта программа говорит не „мы попытаемся сделать то, что делают люди“, а „мы просто попытаемся превзойти их при помощи грубой силы“». Полная цитата содержится в книге: Feigenbaum G. Conversations with John Searle. Libros En Red, 2003. С. 57, 58.

186

Kasparov G. The Chess Master and the Computer // New York Review of Books. 2010. 11 февраля.

187

Цит. по: Herkewitz W. Why Watson and Siri and Not Real AI // Popular Mechanics. 2014. 10 февраля.

188

Searle J. Watson Doesn’t Know It Won on “Jeopardy!” // Wall Street Journal. 2011. 23 февраля.

189

Hofstadter D. Gödel, Escher, Bach: An Eternal Golden Braid. London: Penguin, 2000. С. 601: «Существует теорема о прогрессе в сфере искусственного интеллекта: когда удается сделать программу, соответствующую некой функции разума, люди перестают ее считать важной составляющей „реального мышления“. Ядро разума непременно находится в следующей задаче, которую еще не перевели в программу. Эту теорему впервые изложил мне Ларри Теслер, поэтому я называю ее теоремой Теслера: „искусственный интеллект – это то, что еще не было сделано“».

190

Там же. С. 678.

191

Hofstadter D. Staring Emmy Straight in the Eye – And Doing My Best Not to Flinch // Virtual Music: Computer Synthesis of Musical Style / ed. David Cope. MIT Press, 2004. С. 34.

192

Weber B. Mean Chess-Playing Computer Tears at Meaning of Thought.

193

Впрочем, несколько лет спустя он уступил, остроумно заметив, что ему «пришлось испить чашу смирения» в связи с его предсказаниями о шахматах и признать ошибку: Hofstadter D. Staring Emmy Straight in the Eye – And Doing My Best Not to Flinch. С. 35.

194

Каспаров Г. Человек и компьютер. Взгляд в будущее. М.: Альпина Паблишер, 2018. С. 328.

195

Цит. по: Leithhauser B. Kasparov Beats Deep Thought // New York Times. 1990. 14 января.

196

Каспаров Г. Человек и компьютер. Взгляд в будущее. М.: Альпина Паблишер, 2018.

197

См.: Dennett D. From Bacteria to Bach and Back. London: Allen Lane, 2017. С. 36.

198

Дарвин Ч. Происхождение видов путем естественного отбора // Сочинения. Т.3. М.: Издательство АН СССР, 1939. С. 675.

199

См.: Berlin I. The Hedgehog and the Fox. New York: Simon & Schuster, 1953.

200

Различение между ОИИ и УИИ сравнивают с различением, которое Джон Сёрл проводит между «сильным ИИ» и «слабым ИИ». Но это не одно и то же. ОИИ и УИИ отражают широту возможностей машин, а термины, предложенные Сёрлом, касаются вопроса о том, думают ли машины как человек («сильный ИИ») или нет («слабый ИИ»).

201

Bostrom N., Yudkowsky E. The Ethics of Artificial Intelligence // Cambridge Handbook of Artificial Intelligence / ed. K. Frankish. Cambridge: Cambridge University Press, 2011.

202

Good I. J. Speculations Concerning the First Ultraintelligent Machine // Advances in Computers. 1966. № 6. С. 31–88.

203

Cellan-Jones R. Stephen Hawking Warns Artificial Intelligence Could End Mankind // BBC News. 2014. 2 декабря; Gibbs S. Elon Musk: AI “Vastly More Risky Than North Korea” // Guardian. 2017. 14 августа; Rawlinson K. Microsoft’s Bill Gates Insists AI is a Threat // BBC News. 2015. 29 января.

204

См.: Bostrom N. Ethical Issues in Advanced Artificial Intelligence // Cognitive, Emotive, and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence / eds. G. Lasker, W. Wallach, I. Smit. International Institute of Advanced Studies in Systems Research and Cybernetics, 2003. С. 12–17.

205

Friend T. How Frightened Should We Be of AI // New Yorker. 2018. 14 мая.

206

Mnih V., Kavukcuoglu K., Silver D., et al. Human-level Control Through Deep Reinforcement Learning // Nature. 2015. № 518. 25 февраля. С. 529–533.

207

Autor D., Levy F., Murnane R. The Skill Content of Recent Technological Change: An Empirical Exploration // Quarterly Journal of Economics. 2003. № 4 (118). С. 129–333. Еще одной «нерутинной» задачей в списке значилось «формулирование/проверка гипотез». Система AlphaFold, разработанная DeepMind для прогнозирования трехмерной структуры белков, служит хорошим примером прогресса.

208

См.: Там же. Autor D., Dorn D. The Growth of Low-Skill Service Jobs and the Polarization of the US Labor Market // American Economic